Sau khi nhà Mạc nắm quyền, các quyền thần cũ nhà Lê không theo nhà Mạc đã có một số hoạt động chống đối như cầu viện nhà Minh hoặc nổi dậy nhưng đều không thành. Chỉ đến khi nhà Hậu Lê tái lập thì chiến tranh quy mô mới thực sự bắt đầu.

Nguyễn Kim khởi nghĩa, họ Vũ cát cứ

Khi Mạc Đăng Dung giết vua Lê Cung Hoàng để cướp ngôi, nhiều quan lại đã tử tiết để phản đối nhà Mạc giết vua cướp ngôi, từ đó thổi bùng lên ngọn lửa đấu tranh "phù Lê diệt Mạc". Bấy giờ triều thần có Lại bộ thượng thư Đông các đại học sĩ Vũ Duệ, Lại bộ thượng thư Ngô Hoán, thị thư viện Hàn lâm Nguyễn Mẫn Đốc, quan Đô ngự sử là Nguyễn Văn Vận, quan Hàn lâm hiệu lý là Nguyễn Thái Bạt, quan Lễ bộ thượng thư là Lê Tuấn Mậu, quan Lại bộ thượng thư là Đàm Thận Huy, quan Tham chính sứ là Nguyễn Duy Tường, quan Quan sát sứ là Nguyễn Tự Cường, tước Bình hồ bá là Nghiêm Bá Ký, quan Đô ngự sử là Lại Kim Bảng, Hộ bộ thượng thư Nguyễn Thiệu Trị, quan Phó Đô-ngự-sử là Nguyễn Hữu Nghiêm, quan Lễ-bộ tả Thị-Lang là Lê Vô Cương đều là người khoa giáp, người thì nhổ vào mặt hay là lấy nghiên mực ném vào mặt Mạc Đăng Dung, hay chửi mắng, đều bị Đăng Dung giết đi. Có người thì khởi binh phù Lê thất bại và bị giết, có người thì theo vua Lê không kịp, nhảy xuống sông mà chết, người thì quay đầu về Lam Sơn bái lạy rồi tự tử. Sau này, khi dẹp xong nhà Mạc, nhà Lê được trung hưng lại, vua Lê Huyền Tông và triều đình bàn luận công lao, truy phong tước phúc thần cho 13 vị trung thần tiết nghĩa vì nước hy sinh này, trong đó xếp ông Vũ Duệ đứng đầu trong số 13 người.[2]

Năm 1529, một võ tướng cũ của nhà Lê là Nguyễn Kim trung thành với nhà Lê, không thần phục nhà Mạc, bỏ chạy vào miền núi Thanh Hoá và sang Ai Lao (Lào), tập hợp lực lượng chống nhà Mạc. Năm 1533, Nguyễn Kim tìm một người tên là Lê Duy Ninh là con của vua Lê Chiêu Tông đưa lên ngôi trên đất Sầm Châu (Ai Lao), tức là vua Lê Trang Tông. Tuy nhiên các nhà sử học nghi ngờ Duy Ninh không phải là con của vua Chiêu Tông vì tuổi của Duy Ninh và Lê Chiêu Tông chênh nhau quá ít.[3]

Từ khi Trang Tông lên ngôi, nhiều sĩ phu, tướng lĩnh bắt đầu tập hợp bên Nguyễn Kim để chống nhà Mạc. Năm 1540, Mạc Thái Tông chết. Thượng hoàng Mạc Đăng Dung lập cháu nội là Mạc Phúc Hải lên ngôi, tức là Mạc Hiến Tông. Năm sau, thượng hoàng Đăng Dung chết.

Năm 1543, quân nhà Lê về nước đánh chiếm Tây đô (Thanh Hoá). Hoạn quan nhà Mạc là Dương Chấp Nhất đầu hàng. Năm 1545, Chấp Nhất dâng dưa độc cho Nguyễn Kim, Kim ăn vào chết. Chấp Nhất bỏ trốn về nhà Mạc. Con rể Nguyễn Kim là Trịnh Kiểm lên thay cầm quyền chỉ huy quân đội.

Ở phía Tây Bắc, vùng Hưng Hoá (Tuyên Quang), anh em Vũ Văn Mật, Vũ Văn Uyên (Chúa Bầu) là thủ lĩnh trong vùng cát cứ không thần phục nhà Mạc. Nhà Mạc vài lần mang quân đánh nhưng không diệt được họ Vũ, sau lại phải đối phó với nhiều biến cố khác nên buộc phải để họ Vũ cát cứ. Họ Vũ sai người liên lạc theo về nhà Lê trung hưng.

Phụ chính Mạc Kính Điển

Năm 1546, Mạc Hiến Tông chết, con là Mạc Phúc Nguyên còn nhỏ lên thay, tức là Mạc Tuyên Tông, chú là Khiêm vương Mạc Kính Điển làm phụ chính. Trong triều xảy ra biến loạn. Tướng Phạm Tử Nghi muốn lập con Mạc Thái Tổ là Hoằng vương Mạc Chính Trung đã trưởng thành nhưng không được nên cùng Chính Trung khởi binh nổi loạn. Phạm Tử Nghi nhiều lần muốn đánh chiếm Đông Kinh không thành, bèn đem Chính Trung ra chiếm cứ Yên Quảng (Quảng Ninh), cướp phá Hải Dương và đánh phá sang Trung Quốc khiến nhà Minh lo ngại. Đến năm 1551, Mạc Kính Điển dẹp được Phạm Tử Nghi. Tử Nghi bị chém, Chính Trung bỏ chạy và bị giết. Có thuyết nói Tử Nghi chết về tay người Minh.

Năm 1550, Thái tể Lê Bá Ly quyền thế quá lớn, có phần hống hách, hai sủng thần là Phạm Quỳnh, Phạm Dao[4] cậy thế vua Mạc vây đánh. Bá Ly cùng thông gia là Nguyễn Thiến mang gia quyến gồm các tướng Nguyễn Quyện, Nguyễn Khải Khang, Lê Khắc Thận chạy vào Thanh Hóa hàng theo nhà Lê. Tuy nhiên sau vài năm, khi Nguyễn Thiến và Lê Bá Ly chết, các con là Nguyễn Quyện, Lê Khắc Thận lại về theo nhà Mạc và Nguyễn Quyện trở thành danh tướng nhà Mạc.

Năm 1562, Mạc Tuyên tông mất, con là Mạc Mậu Hợp mới 2 tuổi lên nối ngôi. Việc chính sự đều do Khiêm vương Kính Điển điều hành.

Bấy giờ nhà Lê chiếm lại được Thanh Hóa và Nghệ An. Năm 1558, con thứ Nguyễn Kim là Nguyễn Hoàng sợ bị anh rể Trịnh Kiểm hại như anh cả Nguyễn Uông nên xin vào trấn thủ Thuận Hoá. Năm 1570, Trịnh Kiểm lại giao cho Hoàng trấn thủ nốt Quảng Nam. Năm 1572, Hoàng dùng kế giết được tướng Mạc là Mạc Lập Bạo vào đánh. Nhà Mạc mất hẳn phía nam và chỉ còn kiểm soát Bắc Bộ.

Năm 1570, Trịnh Kiểm chết, hai con Trịnh Cối, Trịnh Tùng tranh ngôi. Trịnh Cối thua phải sang đầu hàng nhà Mạc. Tuy nhiên Trịnh Tùng là người thay thế xứng đáng của Trịnh Kiểm nên vẫn duy trì được thế cân bằng với nhà Mạc.

Trong suốt những năm 1545–1580 là giai đoạn hai bên giằng co, khi thì Trịnh Kiểm và sau này là Trịnh Tùng dẫn quân ra đánh Sơn Nam, Ninh Bình, Sơn Tây, Thăng Long, khi thì Mạc Kính Điển cho quân tấn công Thanh Hóa - Nghệ An. Mạc Kính Điển nhiều lần phải mang vua Mạc qua sông tránh sang Kim Thành (Hải Dương) nhưng quân Lê vẫn không vào được Thăng Long. Hai bên khi được khi thua. Cuộc chiến giằng co nổi lên tên tuổi các tướng Hoàng Đình Ái, Nguyễn Hữu Liêu bên Lê, Nguyễn Quyện bên Mạc.

Tháng 10 năm 1580, Mạc Kính Điển mất, em là Mạc Đôn Nhượng lên thay làm phụ chính. Lực lượng quân đội nhà Mạc suy yếu đi nhiều vì thiếu đi người chỉ huy có tầm cỡ và uy tín.

Mất Thăng Long

Mạc Mậu Hợp từ nhỏ lên ngôi, khi lớn vẫn dựa vào các hoàng cha chính, không chú trọng việc chính sự. Sau khi Mạc Kính Điển chết, việc trong ngoài đều trông chờ vào Mạc Đôn Nhượng cùng các tướng Nguyễn Quyện, Mạc Ngọc Liễn[5], Bùi Văn Khuê. Uy thế quân Mạc suy sút nhiều và thường bị thua trận.

Năm 1591, Trịnh Tùng đem quân bắc tiến áp sát thành Thăng Long. Đầu năm 1592, Mạc Mậu Hợp chạy sang Gia Lâm, thống suất thủy quân để làm thanh thế trên sông Nhị Hà cho các tướng giữ thành Thăng Long. Trịnh Tùng thúc quân tổng tiến công. Các tướng Mạc Ngọc Liễn, Bùi Văn Khuê, Trần Bách Niên tan vỡ bỏ chạy. Phục binh của Nguyễn Quyện ở cầu Dền không kịp nổi dậy đã bị giết. Nguyễn Quyện bị bắt[6], hai con tử trận. Quân Mạc chết rất nhiều.

Trịnh Tùng rút quân chủ lực về. Mạc Mậu Hợp thu tàn quân án ngữ sông Nhị Hà, lại ham sắc đẹp của vợ tướng Bùi Văn Khuê là Nguyễn Thị Niên[7] nên muốn giết Khuê. Tháng 8 năm 1592, Khuê biết chuyện bèn đem quân hàng Lê, hợp binh với Trịnh Tùng đại phá quân Mạc.

Tháng 11 năm 1592, Trịnh Tùng lại tiến đánh Thăng Long. Mậu Hợp thua chạy về Kim Thành (Hải Dương). Thấy thế nguy cấp, Mậu Hợp lập con là Toàn lên ngôi, tự mình làm tướng thống suất quân đội. Sau các cuộc chiến đẫm máu tại khu vực các phủ Nam Sách, Hạ Hồng, Kinh Môn trong tháng 11 và 12 thì quân đội nhà Mạc chịu tổn thất cực kỳ nặng nề. Mạc Mậu Hợp phải bỏ trốn đến huyện Phượng Nhãn, bị bắt sống sau đó ít ngày và bị hành hình.

Cát cứ Cao Bằng

Dù Mạc Mậu Hợp và sau đó là Mạc Toàn bị bắt và bị giết thì thế lực của nhà Mạc chưa bị tiêu diệt hết. Theo Đại Việt sử ký toàn thư, cho đến đầu thế kỷ 17 thì các vùng như Thái Nguyên, Lạng Sơn, Cao Bằng vẫn thuộc quyền quản lý của nhiều người như Mạc Kính Chỉ, Mạc Kính Cung, Mạc Kính Khoan là thân thuộc của nhà Mạc (thuộc chi Mạc Kính Điển). Tại các khu vực này, chiến trận vẫn tiếp diễn trong nhiều năm và nhân dân vẫn tiếp tục chịu cảnh lầm than, đồng ruộng bị bỏ hoang. Điều này đã được phản ánh chi tiết qua câu ca dao:

"Con cò lặn lội bờ sông,

Gánh gạo theo chồng tiếng khóc nỉ non.

Nàng về nuôi cái cùng con,

Để anh đi trẩy nước non Cao Bằng".

Nhà Minh, vì muốn duy trì thế Nam – Bắc triều ở Việt Nam có lợi cho họ nên can thiệp để họ Mạc được cát cứ ở Cao Bằng. Khi nhà Minh mất (1644), các vua Nam Minh – tàn dư nhà Minh – vẫn ủng hộ họ Mạc. Họ Mạc nối nhau trấn giữ ở đây trong nhiều năm, đến con Kính Khoan là Kính Vũ. Mãi đến khi nhà Minh mất hẳn (1662) về tay nhà Thanh, họ Trịnh mới ra tay dẹp họ Mạc. Tới năm 1677, việc trấn giữ Cao Bằng của họ Mạc mới chấm dứt. Dư đảng họ Mạc đứng đầu là Mạc Kính Hẻ rồi Mạc Kính Quang rút chạy sang Long Châu - Trung Quốc, vẫn tiếp tục xua quân về quấy rối miền biên cảnh khiến vua Lê chúa Trịnh không thể yên được. Năm 1683, quân Lê Trịnh mở cuộc tấn công quyết định, quân Mạc tan vỡ hoàn toàn, Mạc Kính Quang lưu vong sang Miến Điện cùng đường phải tự sát.[8]

Tàn dư

Năm 1683, Lê Hải trấn thủ Cao Bằng, dụ được đồ đảng họ Mạc là Nguyễn Công Hồi đem hơn một ngàn bộ thuộc đến trấn đầu hàng. Triều đình phong cho Hồi tước hiệu quận công và thăng thưởng cho Hải chức đề đốc, cùng năm đó nhà Thanh trao trả tù binh họ Mạc vừa lớn vừa nhỏ là 350 người, đứng đầu là Mạc Kính Liêu. Triều đình sai người kiểm điểm xét duyệt, rồi phân phối đưa đi cho được yên phận ở xen vào với dân Lạng Sơn, còn bọn Kính Liêu cả thảy 124 người thì dẫn giải về triều dâng ở dưới cửa cung khuyết. Nhà vua ngự điện Kiền Nguyên nhận tù binh, sau lại dẫn đến sân phủ chúa để chịu tội, bọn này đều được tha. Bọn Kính Liêu ba người được triều đình trao cho quan chức, ngoài ra đều phân phối đi các nơi để được yên phận ở xen vào với dân bản xứ, hằng năm giúp đỡ cho vải và tiền.[9]

Năm 1692, dư đảng họ Mạc là Hán đường công Mạc Kính Chư trước trốn chạy sang Long Châu, nay ngầm cấu kết với thổ ty nhà Thanh dòm ngó biên giới. Ngô Sách Tuân lúc đó giữ chức đốc trấn Cao Bằng sai thuộc hạ trong trấn là Bế Công Quỳnh giao kết thân mật với thổ quan Long Châu, bắt được Hán đường công của quân Mạc cùng đô đốc Đinh Công Đĩnh và đồ đảng đưa về kinh sư giết đi.[9]

Năm 1739, nhân khi chính sự Đàng Ngoài dưới thời Trịnh Giang rối ren, hậu duệ của họ Mạc là Nguyễn Cừ, Nguyễn Tuyển lại nổi dậy khởi nghĩa chống vua Lê chúa Trịnh trong vài năm.[10]

Thành nhà Mạc

• Thành Nhà Mạc Lạng Sơn hiện nằm trong khu vực phường Tam Thanh, thành phố Lạng Sơn, dấu tích còn lại gồm 2 đoạn tường xây bằng đá giữa hẻm núi. Hiện nay di tích thành Nhà Mạc ở Lạng Sơn đã được xếp hạng di tích lịch sử Quốc gia và được đầu tư, tôn tạo đưa vào phục vụ du khách du lịch tham quan.[11]
• Thành nhà Mạc nằm ở trung tâm thị xã Tuyên Quang, tỉnh Tuyên Quang hiện nay. Theo sử sách ghi lại thành được xây vào năm 1592 đời nhà Mạc, và được sửa chữa vào thời đầu nhà Nguyễn (thế kỷ 19). Thành được xây theo kiểu hình vuông, mỗi cạnh dài 275m, cao 3,5m và dày 0,8m; mỗi mặt thành có một cửa hình bán nguyệt với kiến trúc theo lối phòng thủ quân sự.. Thành đã được xếp hạng di tích lịch sử Quốc gia và đang có nguy cơ xóa sổ.
• Thành nhà Mạc ở tỉnh Cao Bằng là thành Nà Lự: khi nhà Mạc chạy lên Cao Bằng (1594-1677), trong 83 năm, ba đời vua Mạc đóng đô ở Cao Bình đã cho tu sửa, xây thành cao lên, có cổng thành kiên cố để phòng thủ, đề phòng triều đình vua Lê – chúa Trịnh lên thôn tính. Nhưng có khả năng thành này xây từ nhà Đường 618-802.[12]
• Thành nhà Mạc ở tỉnh Ninh Bình là thành Bình Sơn, thuộc xã Mai Sơn, Yên Mô, Ninh Bình. Thành hiện còn đoạn dài khoảng 1 km, gần quốc lộ 1A. Gần thành nhà Mạc là tuyến sông Nhà Mạc và nhiều di tích thời Mạc ở Ninh Bình.
• Ở xã Cao Xá, Lâm Thao, Phú Thọ nhân dân vẫn truyền tục câu nói: "Hăm mốt tháng chạp, gió đổ thành Mạc. Hăm hai tháng chạp, gió đổ thành Dung" để nói về thành Nhà Mạc xây dựng dở chừng thì bị mưa bão làm sụp đổ không thể xây dựng thành Thành được. Hiện nay, thường thường hàng năm vào những ngày "hăm mốt, hăm hai tháng chạp" ở Cao Xá vẫn thường có mưa bão. "Đầu Thành" là từ địa phương ở Cao Xá vẫn dùng để nói về địa điểm đoạn đầu thành Nhà Mạc xây ở thôn Dục Mỹ. Hiện nay các dấu tích của Thành Nhà Mạc ở Cao Xá hầu như không còn vì một thời kỳ nhân dân ở đây khai thác đất làm đường sá, xây dựng nhà ở.